Semantic Associative Topic Models for Information Retrieval

主題模型(topic model)被廣泛地應用在各種文件建 模以及語音識別、資訊檢索和本文探勘系統中,有 效地擷取文件或字詞的語意和統計資料。大多數主 題模式,例如機率潛在語意分析(probabilistic latent semantic analysis) 和 潛 在 狄 利 克 里 分 配 (latent Dirichlet allocation),主要都透過一組潛藏的主題機 率分布來描述文件與字詞之間的關係,並用以擷取 文件的潛在語意資訊。然而,傳統的主題模型受限 於詞袋(bag-of-words)的假設,其潛藏主題僅能用來 擷取個體詞(individual word)之間的語意資訊。雖然 個體詞可傳達主題信息,但有時會缺乏本文準確的 語意知識,容易造成文件的誤判,降低檢索的品 質。為了改善主題模型的缺點,本論文提出一種新 穎的語意關聯主題模型(semantic associative topic models),考慮多元字詞(multi-words)之間的語意關 聯資訊,基於關聯式探勘(association mining)法擷取 出多元字詞之間的相互關聯資訊,並透過線性模型 結合的方式,有效地改善傳統的機率潛在語意分析 模型。我們以華爾街日報和美聯社新聞文件集進行 實驗評估。實驗結果顯示新方法相較於傳統主題模 型具有較優的文件模組化,並在文件檢索的效率上 亦有良好的改善。 關鍵詞:主題模型、機率潛在語意分析、關聯探勘 法、語言模型、資訊檢索。